iT邦幫忙

2024 iThome 鐵人賽

DAY 0
0
生成式 AI

除了ChatGPT,你了解生成式AI的其他應用嗎?30天從零到精通的學習與實作系列 第 22

Day22 RAG架構筆記__為何不用Fine-Tuning和Prompt Engineering就好了?

  • 分享至 

  • xImage
  •  

今天總結了 RAG 相較於 Fine-tuning 和 Prompt Engineering 的五個優勢,會搭配範例做說明。不是很專業,有錯誤請見諒。

1. 節省訓練成本

範例: 假設一家公司希望建立一個醫療查詢系統,傳統的 Fine-tuning 需要在一個大型醫療數據集上進行模型重新訓練,這需要大量計算資源和時間。使用 RAG 技術,只需建立一個向量資料庫,將資料分成較小的區塊並將其轉換為向量,這樣可以節省訓練時間和金錢,因為 RAG 只需要在索引階段進行一次資料處理。

2. 資料即時性

範例: 在金融市場中,若使用 RAG 技術,系統可以即時查詢最新的股票資料和分析。當用戶提問時,RAG 能夠快速將用戶的問題轉換為向量,並在向量資料庫中檢索相關信息,這樣用戶可以立即獲得最新的市場資訊。相比之下,Fine-tuning 需要時間進行模型更新,因此無法迅速反映市場的變動。

3. 提高資訊正確性

範例: 假設用戶詢問關於某種罕見疾病的症狀。使用 RAG 技術,系統可以查詢外部的醫學文獻資料庫,並將找到的相關資料與用戶的問題一起提供給 LLM(大型語言模型)生成答案。這樣可以有效地引用權威資料,確保生成的答案準確性高。而如果僅依賴 Prompt Engineering,模型可能生成不準確或過時的信息,因為其只能基於訓練資料進行推斷,無法及時參考最新的研究成果。

4. 透明度與可信度

範例: 當用戶詢問法律問題時,RAG 技術可以檢索法律條文或具體案例的向量,並引用這些來源作為回答的依據。這不僅提高了答案的可信度,也讓使用者能夠自行驗證引用的資訊,增強了透明度。相對於此,Fine-tuning 模型可能無法提供具體的參考資料,降低了使用者對回答的信任感。

5. 更高的隱私與安全性

範例: 在金融機構中,使用 RAG 技術查詢內部交易數據庫時,系統能夠精確控制資料存取權限,確保只有授權的交易分析師能夠檢索特定的客戶資料。由於 RAG 僅查詢自己的向量資料庫,因此相比於 Fine-tuning 模型可能出現的資料洩漏風險(因為微調過的模型會將敏感數據嵌入其權重中),RAG 在安全性上具有明顯的優勢,能夠更有效地保護敏感的財務資訊。

總的來說,RAG 的設計使得其在資訊存取和生成過程中能夠減少訓練成本並且提高資料準確性,同時控制資料的安全性,降低了資料洩漏的風險。


上一篇
Day21 RAG架構筆記__workflow
下一篇
Day23 利用RAG架構建立本地端問答機器人__套件介紹
系列文
除了ChatGPT,你了解生成式AI的其他應用嗎?30天從零到精通的學習與實作30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言